其他
中国信通院专家团队斩获“首届生成式人工智能安全大赛”赛道冠军
2024年12月11日，首届生成式人工智能安全大赛在北京圆满落幕。本次大赛由北京市互联网信息办公室和中国科学院网络安全和信息化领导小组办公室共同指导，中国科学院信息工程研究所和信息内容安全国家工程研究中心联合主办，旨在聚焦生成式人工智能在安全领域的技术挑战，推动我国人工智能基础底座的安全可控水平提升。
首届生成式人工智能安全大赛以“共筑安全星河，护航AI发展”为主题，设置了“安全攻击”“安全检测”和“安全防护”三大赛道，聚集了来自全国高校、科研院所与企业的优势力量。
在备受关注的“安全攻击”赛道中，由石霖、陈文弢、黑一鸣等成员组成的中国信息通信研究院（简称“中国信通院”）人工智能研究所团队凭借扎实的技术能力和创新思维，从200多支参赛队伍中脱颖而出，斩获冠军！该团队综合运用了多模型融合、红队自对抗训练和提升词工程等多种技术手段，成功构建出高效的技术方法，不仅揭示了目标模型在安全性上的潜在薄弱点，还为模型安全防护提供了宝贵的参考。这展示了中国信通院在生成式人工智能安全研究领域的深厚基础。
未来，中国信通院将继续关注人工智能相关安全风险，不断积淀和提升技术能力，为产业健康发展贡献力量。
校 审 | 谨 言、珊 珊
编 辑 | 凌 霄
推荐阅读
专家谈
,
选择留言身份